HiPixel 是一款用于 AI 驱动的图像超分辨处理的 macOS 桌面客户端应用。
HiPixel 是一款原生 macOS 应用程序,专为图像超分辨率处理而设计。它利用 Upscayl 的 AI 模型,提供高质量图像放大功能,且通过 GPU 加速实现快速处理,适合需要图像处理的设计师和摄影师。该产品在 macOS 平台上运行流畅,支持多种图像格式,并提供便捷的文件夹监控功能。HiPixel 的定位为高效的图像处理工具,旨在提高用户的工作效率。
WoolyAI 是一种通过解耦 CUDA 执行与 GPU 来实现无限制 AI 基础设施管理的技术。
WoolyAI 是一种创新的 AI 基础设施管理技术,通过其核心产品 WoolyStack,实现了将 CUDA 执行从 GPU 解耦,从而打破了传统 GPU 资源管理的限制。该技术允许用户在 CPU 基础设施上运行 Pytorch 应用,并通过 Wooly 运行时库将计算任务动态分配到远程 GPU 资源。这种架构不仅提高了资源利用率,还降低了成本,并增强了隐私和安全性。其主要面向需要高效 GPU 资源管理的企业和开发者,尤其是在云计算和 AI 开发场景中。
AI 驱动的 CUDA 代码优化平台,快速提升 GPU 性能,无需手动优化复杂代码。
RightNow AI 是一个创新的 AI 驱动的 CUDA 代码优化平台,旨在帮助开发者快速提升 GPU 性能。它通过强大的 AI 技术,自动分析 CUDA 内核,识别性能瓶颈,并生成优化后的代码,相比手动优化,大大节省了时间和精力。该平台支持多种优化策略,如共享内存利用、线程协作、循环展开等,可实现高达 4 倍的性能提升。其主要面向需要高性能 GPU 计算的开发者和企业,尤其是那些缺乏专业 GPU 优化知识的团队。RightNow AI 提供多种付费计划,包括按需付费、开发者、专业和企业套餐,满足不同规模用户的需求。
专为 AI 设计的 GPU 云平台,提供高性能基础设施和全天候支持。
CoreWeave GPU 云计算是一个专为人工智能工作负载打造的云平台,提供灵活且高效的 GPU 集群,能够满足企业在大规模计算和存储方面的需求。它的主要优势包括极高的性能、可靠性和可扩展性,适合各种 AI 应用场景。通过 CoreWeave,用户能够显著降低云成本,同时提升服务响应速度,是 AI 创新的理想选择。
Flux 是一个用于 GPU 上张量/专家并行的快速通信重叠库。
Flux 是由字节跳动开发的一个高性能通信重叠库,专为 GPU 上的张量和专家并行设计。它通过高效的内核和对 PyTorch 的兼容性,支持多种并行化策略,适用于大规模模型训练和推理。Flux 的主要优点包括高性能、易于集成和对多种 NVIDIA GPU 架构的支持。它在大规模分布式训练中表现出色,尤其是在 Mixture-of-Experts (MoE) 模型中,能够显著提高计算效率。
Wan2GP 是一个优化后的开源视频生成模型,专为低配置 GPU 用户设计,支持多种视频生成任务。
Wan2GP 是基于 Wan2.1 的改进版本,旨在为低配置 GPU 用户提供高效、低内存占用的视频生成解决方案。该模型通过优化内存管理和加速算法,使得普通用户也能在消费级 GPU 上快速生成高质量的视频内容。它支持多种任务,包括文本到视频、图像到视频、视频编辑等,同时具备强大的视频 VAE 架构,能够高效处理 1080P 视频。Wan2GP 的出现降低了视频生成技术的门槛,使得更多用户能够轻松上手并应用于实际场景。
提供全球最便宜的GPU云服务,助力自托管AI/ML开发。
Thunder Compute是一个专注于AI/ML开发的GPU云服务平台,通过虚拟化技术,帮助用户以极低的成本使用高性能GPU资源。其主要优点是价格低廉,相比传统云服务提供商可节省高达80%的成本。该平台支持多种主流GPU型号,如NVIDIA Tesla T4、A100等,并提供7+ Gbps的网络连接,确保数据传输的高效性。Thunder Compute的目标是为AI开发者和企业降低硬件成本,加速模型训练和部署,推动AI技术的普及和应用。
NVIDIA GeForce RTX 5070 Ti显卡,采用Blackwell架构,支持DLSS 4技术,为游戏和创作带来强大性能。
GeForce RTX 5070 Ti是NVIDIA推出的高性能显卡,采用最新的Blackwell架构,支持DLSS 4多帧生成技术。该显卡能够为游戏玩家提供极致的图形性能,支持全光追游戏体验,同时在内容创作领域也能显著提升AI生成和视频导出的速度。其强大的性能使其成为追求高帧率和高质量图形体验的用户的理想选择。
TensorPool 是一个简化机器学习模型训练的云 GPU 平台。
TensorPool 是一个专注于简化机器学习模型训练的云 GPU 平台。它通过提供一个直观的命令行界面(CLI),帮助用户轻松描述任务并自动处理 GPU 的编排和执行。TensorPool 的核心技术包括智能的 Spot 节点恢复技术,能够在抢占式实例被中断时立即恢复作业,从而结合了抢占式实例的成本优势和按需实例的可靠性。此外,TensorPool 还通过实时多云分析选择最便宜的 GPU 选项,用户只需为实际执行时间付费,无需担心闲置机器带来的额外成本。TensorPool 的目标是让开发者无需花费大量时间配置云提供商,从而提高机器学习工程的速度和效率。它提供个人计划和企业计划,个人计划每周提供 $5 的免费信用额度,而企业计划则提供更高级的支持和功能。
DeepEP 是一个针对 Mixture-of-Experts 和专家并行通信的高效通信库。
DeepEP 是一个专为混合专家模型(MoE)和专家并行(EP)设计的通信库。它提供了高吞吐量和低延迟的全连接 GPU 内核,支持低精度操作(如 FP8)。该库针对非对称域带宽转发进行了优化,适合训练和推理预填充任务。此外,它还支持流处理器(SM)数量控制,并引入了一种基于钩子的通信-计算重叠方法,不占用任何 SM 资源。DeepEP 的实现虽然与 DeepSeek-V3 论文略有差异,但其优化的内核和低延迟设计使其在大规模分布式训练和推理任务中表现出色。
FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核,适用于变长序列服务。
FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核,专为变长序列服务设计。它基于 CUDA 12.3 及以上版本开发,支持 PyTorch 2.0 及以上版本。FlashMLA 的主要优势在于其高效的内存访问和计算性能,能够在 H800 SXM5 上实现高达 3000 GB/s 的内存带宽和 580 TFLOPS 的计算性能。该技术对于需要大规模并行计算和高效内存管理的深度学习任务具有重要意义,尤其是在自然语言处理和计算机视觉领域。FlashMLA 的开发灵感来源于 FlashAttention 2&3 和 cutlass 项目,旨在为研究人员和开发者提供一个高效的计算工具。
SkyReels-V1 是首个开源的人类中心视频基础模型,专注于高质量视频生成。
SkyReels-V1 是一个开源的人类中心视频基础模型,基于高质量影视片段微调,专注于生成高质量的视频内容。该模型在开源领域达到了顶尖水平,与商业模型相媲美。其主要优势包括:高质量的面部表情捕捉、电影级的光影效果以及高效的推理框架 SkyReelsInfer,支持多 GPU 并行处理。该模型适用于需要高质量视频生成的场景,如影视制作、广告创作等。
大规模深度循环语言模型的预训练代码,支持在4096个AMD GPU上运行。
该产品是一个用于大规模深度循环语言模型的预训练代码库,基于Python开发。它在AMD GPU架构上进行了优化,能够在4096个AMD GPU上高效运行。该技术的核心优势在于其深度循环架构,能够有效提升模型的推理能力和效率。它主要用于研究和开发高性能的自然语言处理模型,特别是在需要大规模计算资源的场景中。该代码库开源且基于Apache-2.0许可证,适合学术研究和工业应用。
网易有道开发的轻量级推理模型,可在单个GPU上部署,具备类似o1的推理能力。
Confucius-o1-14B是由网易有道团队开发的推理模型,基于Qwen2.5-14B-Instruct优化而成。它采用两阶段学习策略,能够自动生成推理链,并总结出逐步的问题解决过程。该模型主要面向教育领域,尤其适合K12数学问题的解答,能够帮助用户快速获取正确解题思路和答案。模型具备轻量化的特点,无需量化即可在单个GPU上部署,降低了使用门槛。其推理能力在内部评估中表现出色,为教育领域的AI应用提供了强大的技术支持。
NVIDIA® GeForce RTX™ 5090是迄今为止最强大的GeForce GPU,为游戏玩家和创作者带来变革性能力。
NVIDIA® GeForce RTX™ 5090由NVIDIA Blackwell架构驱动,配备32 GB超快GDDR7内存,为游戏玩家和创作者提供前所未有的AI性能。它支持全射线追踪和最低延迟的游戏体验,能够应对最先进的模型和最具挑战性的创意工作负载。
FlashInfer是一个用于大型语言模型服务的高性能GPU内核库。
FlashInfer是一个专为大型语言模型(LLM)服务而设计的高性能GPU内核库。它通过提供高效的稀疏/密集注意力机制、负载平衡调度、内存效率优化等功能,显著提升了LLM在推理和部署时的性能。FlashInfer支持PyTorch、TVM和C++ API,易于集成到现有项目中。其主要优点包括高效的内核实现、灵活的自定义能力和广泛的兼容性。FlashInfer的开发背景是为了满足日益增长的LLM应用需求,提供更高效、更可靠的推理支持。
现代硬件设计的CAD软件
Zoo提供了一个现代的硬件设计工具包,包括GPU驱动引擎、按需付费、远程流媒体和开放API兼容等特点,旨在提高硬件设计效率和降低成本。它允许用户创建前所未有的新设计工具,无论是个人爱好者、初创企业还是大型企业,Zoo的安全基础设施都能加速项目和工具的发展。
一款能够生成电影级质量视频的图像到视频模型
Ruyi-Models是一个图像到视频的模型,能够生成高达768分辨率、每秒24帧的电影级视频,支持镜头控制和运动幅度控制。使用RTX 3090或RTX 4090显卡,可以无损生成512分辨率、120帧的视频。该模型以其高质量的视频生成能力和对细节的精确控制而受到关注,尤其在需要生成高质量视频内容的领域,如电影制作、游戏制作和虚拟现实体验中具有重要应用价值。
NVIDIA GPU上加速LLM推理的创新技术
ReDrafter是一种新颖的推测性解码方法,通过结合RNN草稿模型和动态树注意力机制,显著提高了大型语言模型(LLM)在NVIDIA GPU上的推理速度。这项技术通过加速LLM的token生成,减少了用户可能经历的延迟,同时减少了GPU的使用和能源消耗。ReDrafter由Apple机器学习研究团队开发,并与NVIDIA合作集成到NVIDIA TensorRT-LLM推理加速框架中,为使用NVIDIA GPU的机器学习开发者提供了更快的token生成能力。
开源框架,加速大型视频扩散模型
FastVideo是一个开源框架,旨在加速大型视频扩散模型。它提供了FastHunyuan和FastMochi两种一致性蒸馏视频扩散模型,实现了8倍推理速度提升。FastVideo基于PCM(Phased-Consistency-Model)提供了首个开放的视频DiT蒸馏配方,支持对最先进的开放视频DiT模型进行蒸馏、微调和推理,包括Mochi和Hunyuan。此外,FastVideo还支持使用FSDP、序列并行和选择性激活检查点进行可扩展训练,以及使用LoRA、预计算潜在和预计算文本嵌入进行内存高效微调。FastVideo的开发正在进行中,技术高度实验性,未来计划包括增加更多蒸馏方法、支持更多模型以及代码更新。
© 2025 AIbase 备案号:闽ICP备08105208号-14